양의 정부호

주축정리는 실수 대칭 행렬 또는 복소수 에르미트 행렬이 직교 행렬 또는 유니타리 행렬을 이용하여 대각화될 수 있다는 정리이다. 이 정리에 따르면, 행렬 A는 A = QΛQ^T (또는 A = UΛU^* )의 형태로 분해되며, 여기서 Λ는 고윳값으로 이루어진 대각 행렬이고, Q 또는 U는 직교 행렬 또는 유니타리 행렬이다.

이 분해를 이용하면, 임의의 0이 아닌 벡터 x에 대한 이차 형식 x^T A x (또는 x^* A x)는 새로운 좌표계 y = Q^T x (또는 y = U^* x)를 도입하여 y^T Λ y (또는 y^* Λ y)로 표현된다. 이는 곧 Σ λ_i |y_i|^2 의 형태가 된다. 따라서, 이 이차 형식이 모든 0이 아닌 x에 대해 항상 양수가 되기 위한 필요충분조건은 대각 행렬 Λ의 모든 대각 성분, 즉 행렬 A의 모든 고윳값 λ_i 가 양수인 것이다.

결론적으로, 주축정리를 이용한 양의 정부호 행렬의 판별법은 행렬의 모든 고윳값을 계산하여 그 값이 모두 양수인지 확인하는 것이다. 이는 양의 정부호의 정의를 직접 계산하는 것보다 효율적인 판별 방법을 제공하며, 특히 수치 선형대수학에서 중요한 역할을 한다.

실수 대칭 행렬 또는 복소수 에르미트 행렬이 양의 정부호인지를 판별하는 가장 직접적인 방법 중 하나는 그 고윳값을 조사하는 것이다. 이 방법은 행렬의 고윳값이 행렬의 핵심적인 성질을 반영하기 때문에 이론적으로 매우 명확한 판별 기준을 제공한다.

주어진 대칭 행렬 A가 양의 정부호이기 위한 필요충분조건은 A의 모든 고윳값이 양수인 것이다. 즉, 행렬 A의 모든 고윳값 λ_i에 대해 λ_i > 0이 성립해야 한다. 이는 이차 형식 x^T A x의 값이 A의 고윳값을 이용한 직교 변환 또는 유니타리 변환을 통해 표준형으로 표현될 수 있다는 사실에서 비롯된다. 변환 후 이차 형식은 고윳값을 계수로 하는 제곱항의 합으로 표현되므로, 이 값이 모든 영벡터가 아닌 x에 대해 항상 양수가 되려면 모든 계수, 즉 모든 고윳값이 양수여야 한다.

이 판별법은 특히 행렬의 대각화가 가능한 경우 유용하다. 예를 들어, 수치 선형대수학에서는 QR 알고리즘이나 멱승법과 같은 방법을 통해 행렬의 고윳값을 근사적으로 계산하여 양의 정부호성을 확인하기도 한다. 모든 고윳값이 양수임을 확인하는 것은 행렬이 가역 행렬이며, 그 역행렬 또한 양의 정부호임을 의미하기도 한다.

고윳값 판별법은 주축정리를 이용한 판별과 본질적으로 동일하지만, 계산적 관점에서 접근법이 다르다. 주축정리는 행렬 분해를 통해 명시적으로 이차 형식을 제곱항의 합으로 변환하는 반면, 고윳값 판별법은 행렬 자체의 스펙트럼(고윳값 집합)에 초점을 맞춘다. 따라서 이론적 분석이나 컴퓨터를 이용한 수치 계산 시 상황에 따라 적절한 방법을 선택하여 사용한다.

주축소행렬식을 이용한 판별법은 실수 대칭 행렬 또는 에르미트 행렬이 양의 정부호인지를 확인하는 실용적인 방법 중 하나이다. 이 방법은 행렬의 모든 선행 주 소행렬식이 양수인지를 검사하는 것으로, 고윳값을 직접 계산하지 않고도 판별이 가능하다는 장점이 있다.

구체적으로, 주어진 n차 정사각행렬 A에 대해, 1번째부터 n번째까지의 선행 주 소행렬식을 모두 계산한다. 여기서 k번째 선행 주 소행렬식이란 행렬 A의 좌상단 k×k 부분행렬의 행렬식을 의미한다. 실수 대칭 행렬 A가 양의 정부호일 필요충분조건은 이 모든 선행 주 소행렬식의 값이 0보다 큰 것이다. 이는 실베스터 판정법으로도 알려져 있다.

예를 들어, 3×3 행렬의 경우, 첫 번째 주축소행렬식(a₁₁), 두 번째 주축소행렬식(좌상단 2×2 부분행렬의 행렬식), 그리고 세 번째 주축소행렬식(행렬 전체의 행렬식)이 모두 양수여야 한다. 이 방법은 특히 이론적 분석이나 최적화 문제에서 헤세 행렬의 정부호성을 판별할 때 유용하게 적용된다.

그러나 이 판별법은 행렬이 대칭 또는 에르미트일 때만 성립한다는 점에 유의해야 한다. 또한, 모든 고윳값이 양수라는 조건과 논리적으로 동치이지만, 계산적 접근법이 상이하다. 수치적으로 불안정한 행렬이나 고차원 행렬의 경우, 수치 해석적 관점에서 고윳값을 이용한 방법과 결과가 다를 수 있다.

양의 정부호 행렬은 최적화 문제에서 핵심적인 역할을 한다. 특히, 볼록 최적화에서 목적 함수가 볼록 함수인지 판정할 때, 그 헤세 행렬이 양의 정부호인지 확인하는 것이 중요하다. 어떤 함수의 임계점이 극소점이 되기 위한 2계 충분조건은 해당 점에서의 헤세 행렬이 양의 정부호인 것이다. 이는 기계 학습의 손실 함수 최소화나 경제학의 효용 극대화 문제 등 다양한 분야에서 응용된다.

2차 형식과의 관계도 응용에 직결된다. 행렬 A가 양의 정부호이면, 이에 대응하는 2차 형식 x^T A x는 모든 영벡터가 아닌 x에 대해 항상 양의 값을 가진다. 이 성질은 최소제곱법이나 필터 설계에서 오차의 제곱합이나 에너지 함수가 항상 음이 아님을 보장하는 데 사용된다. 또한, 확률론에서 공분산 행렬이 양의 정부호라는 성질은 다변량 정규 분포가 잘 정의되는 데 필수적이다.

최적화 알고리즘의 성능에도 영향을 미친다. 뉴턴 방법과 같은 2차 최적화 알고리즘에서는 목적 함수의 헤세 행렬이 양의 정부호일 때 수렴 속도가 빠르다. 만약 헤세 행렬이 양의 정부호가 아니면, 알고리즘은 이를 보정하거나 최속강하법 같은 1차 방법으로 전환해야 할 수 있다. 따라서 문제의 조건수를 개선하기 위한 전처리 과정에서도 양의 정부호 행렬의 성질이 고려된다.

양의 정부호 행렬은 수치 해석 분야에서 중요한 역할을 한다. 특히 선형대수학에서 행렬의 안정성과 계산의 효율성을 판단하는 데 핵심적인 기준이 된다. 수치적으로 연립 일차 방정식을 풀거나 최적화 문제를 해결할 때, 계수 행렬이 양의 정부호이면 특정 알고리즘이 안정적으로 수렴함이 보장되는 경우가 많다.

가장 대표적인 예는 선형계를 풀기 위한 촐레스키 분해이다. 이 방법은 행렬을 하삼각행렬과 그 전치행렬의 곱으로 분해하는 기법인데, 행렬이 양의 정부호일 때만 안정적으로 수행할 수 있다. 촐레스키 분해는 가우스 소거법에 비해 계산량이 절반 정도로 적고 수치적 안정성이 높아, 공학 및 과학 계산에서 널리 사용된다.

또한, 최적화 알고리즘인 뉴턴 방법에서도 헤세 행렬이 양의 정부호인지 여부가 중요하다. 이는 목적 함수의 국소 최적점이 극소점인지를 판별하고, 알고리즘의 갱신 방향을 결정하는 데 영향을 미친다. 수치 해석에서 행렬의 양의 정부호성을 효율적으로 검증하고 유지하는 것은 정확하고 빠른 계산을 위한 필수 과제이다.

양의 준정부호는 양의 정부호 조건보다 약화된 개념으로, 실수 대칭 행렬 또는 복소수 에르미트 행렬이 관련된다. 모든 0이 아닌 벡터 x에 대해 x^T A x ≥ 0 (실수) 또는 x* A x ≥ 0 (복소수)이 성립할 때, 행렬 A를 양의 준정부호 행렬이라고 정의한다. 이는 행렬이 나타내는 이차 형식의 값이 항상 음수가 아니라는 것을 의미한다.

양의 준정부호 행렬의 주요 성질은 모든 고윳값이 0 이상이라는 점이다. 즉, 양의 정부호 행렬은 모든 고윳값이 엄격하게 양수인 반면, 양의 준정부호 행렬은 0인 고윳값을 허용한다는 차이가 있다. 이 성질은 행렬식이 0일 수 있다는 점으로도 이어진다.

이 개념은 최적화 문제에서 중요한 역할을 한다. 특히, 볼록 함수의 2계 도함수인 헤세 행렬이 양의 준정부호일 때 해당 함수는 볼록 함수가 된다. 또한, 확률론에서 확률 변수들의 공분산 행렬은 항상 양의 준정부호 성질을 가진다. 수치 해석에서는 행렬의 이러한 성질이 알고리즘의 안정성과 깊은 연관이 있다.

음의 정부호는 양의 정부호와 반대되는 개념이다. 실수 대칭 행렬 또는 복소수 에르미트 행렬 A에 대해, 모든 0이 아닌 벡터 x에 대하여 x*Ax < 0을 만족하면 행렬 A를 음의 정부호 행렬이라고 정의한다. 이는 행렬이 정의하는 이차형식의 값이 항상 음수임을 의미한다. 표기법으로는 A < 0 또는 A ≺ 0을 사용한다.

음의 정부호 행렬의 판별은 양의 정부호 행렬의 판별법을 활용할 수 있다. 행렬 A가 음의 정부호일 필요충분조건은 -A가 양의 정부호인 것이다. 따라서 A의 모든 고유값이 음수이거나, A의 선행 주축소행렬식이 부호가 교대로 나타나며 첫 번째 주축소행렬식이 음수(-, +, -, +, ... 순)이면 A는 음의 정부호이다.

음의 정부호 행렬은 최적화 문제에서 중요한 역할을 한다. 어떤 함수의 헤세 행렬이 음의 정부호이면, 그 점은 그 함수의 국소적 극대점이 된다. 이는 2계 도함수 판정법을 다변수 함수로 확장한 개념에 해당한다. 또한, 볼록 함수와 관련하여 오목 함수의 판정에도 사용된다.

음의 정부호와 유사하지만 조건이 완화된 개념으로 음의 준정부호가 있으며, 고유값의 부호에 따라 부정부호 행렬과 구분된다. 이러한 정부호 행렬들의 분류는 이차형식의 부호를 연구하는 데 핵심적이다.

부정부호(indefinite) 행렬은 양의 정부호나 음의 정부호와 같은 명확한 부호 특성을 가지지 않는 행렬을 가리킨다. 구체적으로, 실수 대칭 행렬이나 복소수 에르미트 행렬이 부정부호라는 것은 그 행렬의 고윳값 중 양수와 음수가 모두 존재한다는 것을 의미한다. 이는 행렬에 의해 정의된 이차 형식이 어떤 벡터에 대해서는 양의 값을, 다른 벡터에 대해서는 음의 값을 가질 수 있음을 뜻한다.

부정부호 행렬의 대표적인 예로는 안장점을 가지는 함수의 헤세 행렬이 있다. 최적화 문제에서 어떤 점에서의 헤세 행렬이 부정부호라면, 그 점은 극값(최솟값이나 최댓값)이 아닌 안장점임을 알 수 있다. 이는 이계도함수 판정법의 핵심 개념으로 활용된다. 또한, 상관계수 행렬이나 특정 공분산 행렬이 부정부호일 수 있으며, 이는 데이터 간의 관계가 복잡하게 얽혀 있음을 시사할 수 있다.

부정부호 행렬을 판별하는 방법은 주로 고윳값 분석에 의존한다. 행렬의 모든 고윳값을 계산했을 때, 하나 이상의 양의 고윳값과 하나 이상의 음의 고윳값이 동시에 존재하면 그 행렬은 부정부호이다. 주축소행렬식을 이용한 판별법은 양의 정부호나 음의 정부호를 판별하는 데는 유용하지만, 부정부호를 직접적으로 판별하는 데는 한계가 있어 보통 고윳값 판별법이 더 확실하다.

부정부호의 개념은 양의 준정부호와 구별된다. 양의 준정부호 행렬은 고윳값이 양수 또는 0으로, 음수는 존재하지 않는다. 반면 부정부호 행렬은 반드시 양수와 음수 고윳값을 모두 포함한다. 이와 같은 부호 특성의 분류는 선형대수학, 최적화 이론, 수치 해석 등 다양한 수학 분야에서 행렬의 성질과 시스템의 안정성을 이해하는 데 기초가 된다.